MUSA SDK v4.3.4 发布版本信息

下载链接

• rpm: 下载地址
• deb: 下载地址

发布说明

MUSA SDK v4.3.4 版本基于MUSA SDK 4.3.0分支进行功能迭代和问题修复，现已正式发布。

具体支持平台详见下方列表。

支持平台

MTT S5000支持平台

CPU	OS	内核版本	MUSA SDK包
Intel	Alibaba Cloud Linux 3	5.10.134-13.al8.x86_64	RPM
	openEuler 22.03 (LTS-SP4)	5.10.0-216.0.0.115.oe2203sp4.x86_64	RPM
	Debian GNU/Linux 12	5.15.120.ve.3u1-amd64	DEB
	TencentOS Server 4.4	6.6.92-34.1.tl4.x86_64	RPM
	Ubuntu 22.04.4 LTS	5.15.0-105-generic	DEB
AMD	Ubuntu 22.04.4 LTS	5.15.0-105-generic	DEB
Hygon	Ubuntu 22.04.4 LTS	5.15.0-105-generic	DEB
	Kylin Linux Advanced Server V10 (GFB)	4.19.90-52.23.v2207.gfb08.ky10.x86_64	RPM
	Kylin Linux Advanced Server V11 (Swan25)	6.6.0-32.7.v2505.ky11.x86_64	RPM

本版本在原有支持基础上，新增或优化了以下环境的适配：

• Hygon4 + Kylin V11 + S5000
• Hygon4 + Kylin V10 SP3 + S5000
• Intel + Tencent Server + S5000

产品说明

摩尔线程 MUSA SDK 是一套完整的 GPU 并行计算开发环境，专为利用摩尔线程 GPU 加速程序而设计。通过 MUSA SDK，您能够轻松地利用 GPU 加速各种应用，涵盖企业数据中心、桌面、工作站以及云平台和超级计算机等多个领域。该套件包括了 GPU 加速库、调试和优化工具、C/C++编译器以及用于应用程序部署的运行时库等功能。作为一套完整的开发工具，MUSA SDK 包含了以下主要组件：

• MUSA Toolkits，包含底层编译器、MUSA 运行时库、Musify 工具以及MUSA-X 基础数学计算加速库
• muDNN，MT GPU 深度学习加速库
• MCCL，MT GPU 通信加速库
• MUSA SDK 依赖于摩尔线程 GPU 和摩尔线程 GPU 通用驱动程序，需要运行在带有摩尔线程 GPU的服务器/工作站/PC 中，并安装了通用 Linux 驱动程序的环境中运行
• MT GPU：MTT S5000
• 通用驱动软件

另外 MUSA SDK 可配合摩尔线程提供的其他工具和软件提供更完整的 MUSA 计算功能

• GMI&MTML 工具，可提供显卡的管理监控功能并带有 C 函数接口
• 摩尔线程云原生套件，提供基于容器环境的 MUSA 计算并兼容 K8s 生态以及基于 RDMA 的GPU通信功能

功能描述

• 支持 SIMT(Single Instruction Multiple Thread，SIMT)架构并行编程模型
• 提供 MUSA 编程语言配套的编译器工具链 mcc，用于将 MUSA 应用程序源码编译为可以被 GPU识别的可执行文件
• MUSA 驱动与运行时库，提供完整的基于 MT GPU 的MUSA 运行环境
• 摩尔线程 MUSA 数学库提供了在 MT GPU 上优化过的数学函数库，包括
  • MUSA 基础线性代数加速库，MUSA BLAS Library，简称 muBLAS
  • MUSA 伪随机数生成加速库，MUSA RAND Library，简称 muRAND
  • MUSA 傅立叶变换加速库，MUSA FFT Library，简称 muFFT
  • MUSA 稀疏矩阵加速库，MUSA SPARSE Library，简称 muSPARSE
  • MUSA 线性代数求解加速库，MUSA SOLVER Library，简称 muSOLVER
  • MUSA 图像及信号处理加速库，MUSA Performance Primitives Library，简称 muPP
  • MUSA Thrust 并行计算加速库，MUSA Thrust Library，简称 muThrust
• MCCL 通信，针对摩尔线程 GPU 和网络进行性能优化的多 GPU 和多节点通信基元。 MCCL 提供了 all-gather、all-reduce、broadcast、reduce、reduce-scatter、point-to-point send 和 receive等原语，这些原语均经过优化，可通过节点内的 PCIe 和 MTLink 高速互联以及节点间的InfiniBand 网络实现高带宽和低延迟
• muDNN 库，针对深度学习领域和人工智能模型算法优化的函数库，提供高度优化的数学和数据处理任务的函数，包括张量运算，神经网络层计算，损失函数计算等
• Triton MUSA库，支持在摩尔线程 GPU 上高效运行 Triton DSL

主要更新

功能更新（Feature Updates）

• VPU 支持

  • 正式支持 VPU 功能

• 大模型与算子优化

  • 235B 模型支持：
    • 支持 Attention splitkv + 负载均衡 (Load Balance)
    • 支持 Attention varlen_q + pack GQA
  • Flash Attention 增强：
    • varlen 接口支持 qk dim 不等于 v dim 的场景
    • 支持 qk-head_dim=512, v_head_dim=512 配置
  • HunyuanVideo 优化：优化 FP8 GEMM 算子效率

• 驱动与系统适配

  • 多客户环境适配：完成了多种国产 OS/服务器环境的特定适配

产品组件说明

包名称	版本
mccl_rc2.1.4.PH1.tar.gz	2.1.4
mudnn_rc3.1.4.PH1.tar.gz	3.1.4
musa_3.3.4-server_amd64.deb	3.3.4
musa_toolkits_rc4.3.4.tar.gz	4.3.4
triton310_rc1.4.4_py310.tar.gz	1.4.4